Archive - Home

2026

23 posts

深層学習による交換相関汎関数の構築：Skalaアーキテクチャの数理と物理的意義

#Computational Chemistry #Density Functional Theory #Machine Learning #Exchange-Correlation Functional #Neural Networks

Nested Learning (NL): 深層学習アーキテクチャの再解釈と連続的学習への数理的アプローチ

#Machine Learning #Optimization #Neural Architecture #Continual Learning #Associative Memory

反応条件予測における機械学習の限界：文献データの「人気」と化学的本質の乖離

#Machine Learning #Suzuki-Miyaura Coupling #Chemoinformatics #Data Bias #Reaction Optimization

大規模言語モデルにおけるChain-of-Thought Promptingの数理的定式化と推論能力の創発に関する考察

#Machine Learning #Large Language Models #Chain-of-Thought #Natural Language Processing #Reasoning #arXiv

Graph of Thoughts: 大規模言語モデルにおける任意のグラフ構造を用いた推論プロセスの数理的定式化と実証

#Machine Learning #Large Language Models #Graph Theory #Prompt Engineering #Reasoning Framework #arXiv

大規模言語モデルの推論におけるSelf-Consistency: 数理的定式化と多様な推論パスの周辺化による精度向上

#Machine Learning #Large Language Models #Chain-of-Thought #Self-Consistency #Probabilistic Reasoning #arXiv

SELF-REFINE: 大規模言語モデルにおける自己フィードバックを用いた反復的精緻化の数理と実証

#Machine Learning #Large Language Models #Iterative Refinement #Self-Correction #In-context Learning #arXiv

Tree of Thoughts: 大規模言語モデルにおける意図的推論と探索アルゴリズムの統合的枠組み

#Machine Learning #Large Language Models #Search Algorithms #Prompt Engineering #Reasoning Framework #NeurIPS

大規模言語モデルにおける「思考の連鎖」の不忠実性：推論プロセスの乖離と正当化に関する包括的分析

#Machine Learning #Large Language Models #Chain-of-Thought #Interpretability #Faithfulness #Alignment #NeurIPS

TransformerアーキテクチャにおけるSelf-Attention機構の数理的定式化と系列変換タスクへの適用

#Machine Learning #Natural Language Processing #Transformer #Neural Networks #Attention Mechanism #arXiv

『The Matrix Cookbook』Page 8完全解読：行列微分の構造・証明・応用

#Matrix Calculus #Differential Geometry #Machine Learning #Continuum Mechanics #Convex Optimization #Statistics

AdaDerivative: 「勾配の変化」を見ることでオーバーシュートを抑制する新手法

#Machine Learning #Optimization #AdaDerivative #AdaBelief #PID Control

Cautious Optimizers: 「たった1行の修正」でAdamを高速化するC-AdamWの衝撃

#Machine Learning #Optimization #C-AdamW #Adam #Deep Learning #Algorithm

Lion: AIが自ら発見した「単純ゆえに最強」のオプティマイザ

#Machine Learning #Optimization #Lion #AutoML #Deep Learning #Algorithm

Adam: 適応的モーメント推定に基づく確率的最適化手法の理論的構造と実証的評価

#Machine Learning #Optimization #Adam #Deep Learning #Algorithm

Eve: 目的関数の変動情報をフィードバックする適応的勾配降下法の拡張

#Machine Learning #Optimization #Eve #Adam #Deep Learning #Algorithm

勾配降下法に基づく最適化アルゴリズムの数理的構造と収束特性に関する包括的レビュー

#Machine Learning #Optimization #Gradient Descent #Numerical Analysis #Deep Learning #Adam #SGD

Interactive Optimization Playground: Exploring Gradient Descent Algorithms on Complex Landscapes

#Machine Learning #Optimization #Interactive #Visualization #Algorithm

RAdam: 学習率の分散を「整流」する、Warmup不要のAdam進化形

#Machine Learning #Optimization #RAdam #Adam #Deep Learning #Algorithm

Schedule-Free Learning: 学習率スケジュールからの解放と最適化の新地平

#Machine Learning #Optimization #Schedule-Free #Deep Learning #Algorithm

AdaBelief: 勾配への「確信度」で歩幅を変える、AdamとSGDのいいとこ取り

#Machine Learning #Optimization #AdaBelief #Adam #Deep Learning #Algorithm

YellowFin: 運動量項の自動チューニングによるMomentum SGDのロバスト化

#Machine Learning #Optimization #YellowFin #Momentum #Deep Learning

機械学習ポテンシャル構築におけるString Methodの役割：高品質データサンプリングと第一原理精度の両立

#Computational Chemistry #Neural Network Potential #Freezing String Method #Machine Learning #PES #Permutation Invariance